Акции Microsoft в начале этой недели упали до самого низкого уровня с ноября прошлого году после того, как швейцарский финансовый холдинг UBS Group AG понизил рейтинг её ценных бумаг. Своё решение холдинг объяснил обеспокоенностью по поводу замедления роста Azure, облачного подразделения Microsoft, который в течение многих лет был одним из основных факторов роста доходов. Следует добавить, что в 2022 году акции компании упали на 29 %, что является самым резким падением с 2008 года.

UBS отметил, что бизнес Azure, который он назвал двигателем роста компании, «переживает резкое замедление роста, которое может оказаться хуже в 2023–2024 финансовом году, чем прогнозируют инвесторы». Бизнес «может замедлиться из-за достижения стадии полного созревания, а не только из-за тяжёлой макроэкономической ситуации», утверждает холдинг, снизивший целевую цену акций с $300 до $250. Отмечается, что переход на удалённую работу во время пандемии повлёк за собой бум спроса на ПК и облачные приложения, такие как ПО для совместной работы. Но экономический бум пошёл на спад, и стало невозможным поддерживать высокие темпы роста.

Изображение: Microsoft Azure

В последнем квартальном отчёте, опубликованном в октябре, Microsoft предоставила слабый прогноз роста продаж Azure, в связи с чем аналитики тоже понизили свои прогнозы по поводу её облачного бизнеса. Несмотря на такие опасения, большинство аналитиков Уолл-стрит (более 90 % экспертов, опрошенных Bloomberg) по-прежнему рекомендуют покупку акций Microsoft, и ни один из них не рекомендует их продажу. В прошлом году многие компании столкнулись с падением акций, что было вызвано в том числе усилиями ФРС США в борьбе с инфляцией.

Компания Microsoft без лишнего шума запретила майнинг криптовалют с использованием своих облачных мощностей, опубликовав обновление универсального лицензионного соглашения для онлайн-сервисов. Впрочем, как сообщает The Register, определённые исключения всё-таки предусмотрены. Изменения в Universal License Terms for Online Services вступили в силу с 1 декабря и преимущественно касаются сервисов, предоставляемых в рамках корпоративного лицензирования.

В основном изменения затронули правила использования облака Azure. В кратком резюме указано, что криптомайнинг запрещён «без предварительного одобрения Microsoft». В частности, в секции «Политика допустимого использования» указывается, что майнингом криптовалют не может заниматься ни сам заказчик, ни его клиенты. В ином случае необходимо письменное разрешение облачного провайдера «независимо от условий подписки». Аналогичные запреты уже ввели Digital Ocean, Google Cloud, Oracle и OVH. AWS запрещает заниматься майнингом в рамках бесплатного пакета услуг.

Изображение: Microsoft Azure

Как сообщили в Microsoft, запрет на майнинг введён в связи с опасностью нарушений работы или даже отключения онлайн-сервисов, а также возможными противоправными деяниями, от мошенничества до незаконного использования ресурсов пользователей. Все изменения, по заявлениям Microsoft, призваны защитить клиентов и снизить риск возникновения перебоев в работе её служб. При этом компания оставила за собой право рассмотреть заявление на майнинг для тестов и исследований в области кибербезопасности. Ранее, как сообщает The Register, Microsoft уже блокировала некоторые аккаунты за майнинг.

Поскольку ранее майнинг не подвергался системным гонениям, по крайней мере, соответствующие положения не утверждались в правилах, остаётся только гадать, по какой причине Microsoft и другие облачные компании запретили или ограничили его на своих площадках. Существует немало гипотез — от опасений по поводу возможной неплатёжеспособности клиентов из-за последних колебаний рынка до сведений о том, что Azure не хватает вычислительных мощностей. Не исключается, что Microsoft просто ищет более «стабильных» клиентов, для которых сейчас и освобождает инфраструктуру.

Компания Microsoft, в числе прочего предоставляющая облачные сервисы Azure, приобрела 4 % акций Лондонской фондовой биржи и анонсировала 10-летнее стратегическое сотрудничество с London Stock Exchange Group (LSEG). В рамках партнёрства будут совместно разрабатываться технологические решения для LSEG, а сама группа постепенно мигрирует в облако Microsoft.

По словам главы биржи, структура приветствует Microsoft в качестве одного из своих акционеров — это изменит принципы ведения бизнеса по всему миру. В самой Microsoft заявили, что технологическая инфраструктура, данные и аналитические платформы биржи мигрируют в облако Microsoft Azure, а сама биржа потратит на облачные услуги не менее £2,3 млрд ($2,8 млрд) в течение 10 лет. В числе прочего речь идёт о миграции платформы Refinitiv, используемой более 40 тыс. финансовых институтов в 190 странах. Также будут затронуты платформы Turquoise, Turquoise Europe и CurveGlobal.

Изображение: Microsoft

В Microsoft заявили, что компании совместно создадут «открытую, централизованную платформу финансовых данных», которая обеспечит новые возможности монетизации в экосистеме финансовых сервисов с помощью технологий Microsoft, включая Microsoft Azure AI, Synapse, Power BI, Excel и Teams. Ожидается, что в будущем один из вице-президентов Microsoft будет назначен т.н. «неисполнительным директором» LSEG. По словам руководства Microsoft, сотрудничество позволит партнёрам «делать больше с меньшими усилиями».

Это далеко не единственная сделка между «большой тройкой облаков» и биржевыми платформами. Так, AWS подписала соглашение с NASDAQ, а Google Cloud Platform — c CME Exchange. Ещё одна европейская биржа — Euronext, завершила миграцию из ЦОД в предместьях Лондона в дата-центр недалеко от Милана, в числе причин «бегства» из Великобритании назвав неопределённость регулирования на фоне выхода страны из Евросоюза.

Пентагон объявил о заключении контракта с Amazon, Google, Microsoft и Oracle на выполнение облачного проекта Joint Warfighting Cloud Capability (JWCC) стоимостью $9 млрд сроком до 2028 года. Со всеми четырьмя компаниями заключены контракты категории IDIQ, предполагающие предоставление неопределённого объёма услуг в течение определённого периода времени.

Тендер на контракт JWCC был объявлен после отмены предыдущего контракта JEDI (Joint Enterprise Defense Infrastructure), который, как заявило Министерство обороны США потерял актуальность и «больше не отвечает его потребностям». В отличие от контракта JEDI, в контракте JWCC Пентагон полагается не на одного, а нескольких подрядчиков, чтобы свести к минимуму риск его срыва.

Представитель Минобороны США подтвердил CNBC, что «JWCC — это контракт на закупку товаров, работ и услуг у нескольких подрядчиков, состоящий из четырёх контрактов с совокупной предельной суммой в $9 млрд». «Целью этого контракта является предоставление Министерству обороны глобально доступных облачных сервисов для всего предприятия во всех доменах безопасности и уровнях классификации, от стратегического уровня до тактического уровня», — заявили в министерстве.

Фото: David Mark/Pixabay

Первоначально Пентагон заключил в 2019 году контракт на реализацию проекта JEDI с Microsoft, однако это решение оспорили другие претенденты, включая считавшуюся бесспорным фаворитом Amazon, ведущего игрока, уже имевшего контракты с ЦРУ и более 5 тыс. государственных ведомств США. В прошлом году Пентагон решил в корне изменить подход, запросив предложения на участие в новом тендере у Amazon, Google, Microsoft и Oracle. К удивлению аналитиков, Oracle получила долю в контракте, хотя компания не блещет результатами на облачном рынке.

Гленн Локвуд (Glenn K. Lockwood), ведущий специалист Национального научного вычислительного центра энергетических исследований (NERSC) при Министерстве энергетики США перешёл на работу в Microsoft. Он является архитектором высокопроизводительных масштабируемых систем хранения данных для суперкомпьютеров. Локвуд, в частности, руководил развёртыванием первого в мире 35-Пбайт All-Flash хранилища с ФС Lustre для суперкомпьютера Perlmutter.

В своём блоге Локвуд объяснил, почему он ушёл из NERSC в Microsoft. По его словам, лидирующие HPC-системы балансируют на грани выживания, в то время как HPC-системы среднего клсса практически полностью обесцениваются поставщиками облачных услуг. При текущих тенденциях стоимость строительства нового дата-центра и обширной инфраструктуры питания и охлаждения для каждого нового мощного суперкомпьютера очень скоро станет непомерно высокой, говорит Локвуд. Он высказал мнение, что ЦОД мощностью 50–60 МВт, строящиеся сейчас для экзафлопсных суперкомпьютеров, будут последними в своём роде.

Источник изображения: AMD

Что касается менее мощных систем, таких как Perlmutter, то необходимость в них постепенно сокращается по мере того, как облако набирает обороты. «Вы можете установить полную систему [HPE] Cray EX, идентичную той, что вы можете найти в NERSC или OLCF, в Azure <…> и интегрировать её с богатыми инфраструктурными возможностями облака», — говорит Локвуд. Кроме того, облака действительно гораздо быстрее внедряют новинки. Так, процессоры AMD EPYC MilanX и ускорители Instinct MI200 появились в инфраструктуре Microsoft Azure намного раньше, чем в HPC-центрах.

«Я не утверждаю, что знаю будущее, и многое из того, что я изложил, является в лучшем случае гипотетическим», — заявил Гленн Локвуд, отметив, что приверженность Министерства энергетики США к независимым HPC-системам сохранится по меньшей мере ещё десятилетие. Локвуд стал очередным специалистом, покинувшем традиционный HPC-сектор и ушедшим в Microsoft. В 2020 году в Microsoft перешёл технический директор Cray Стив Скотт (Steve Scott). Год спустя к Microsoft присоединился соруководитель программы Cray PathForward доктор Дэн Эрнст (Dan Ernst).

LiquidStack, дочернее предприятие BitFury, специализирующееся на разработке иммерсионных СЖО, и Microsoft продемонстрировали на OCP Global Summit стандартизированное решение с двухфазным погружным жидкостным охлаждением. Демо-серверы Wiwynn, разработанные в соответствии со спецификациями OCP Open Accelerator Infrastructure (OAI), были погружены в бак LiquidStack DataTank 4U, способный отводить порядка 3 кВт/1U (эквивалент 126 кВт на стойку).

LiquidStack сообщила, что она впервые оптимизировала серверы OCP OAI для охлаждения путем погружения в жидкость. По словам компании, её двухфазные иммерсионные СЖО DataTank предоставляют наиболее эффективное решение, которое требует немного пространства и потребляет меньше энергии, чем другие системы охлаждения, и вместе с тем повышает плотность размещения компонентов и их производительность.

Фото: LiquidStack

В демо-серверах использовались ИИ-ускорители Intel Habana Gaudi, погружённые в жидкий диэлектрик (от 3M) с низкой температурой кипения, который наиболее эффективно отводит тепло благодаря фазовому переходу. Данное решение должно помочь достижению показателя PUE в пределах от 1,02 до 1,03, поскольку оно практически не потребляет энергию. LiquidStack утверждает, что у её СЖО эффективность теплоотвода примерно в 16 раз выше, чем у типичных систем воздушного охлаждения.

Фото: LiquidStack

По мнению компании, системы высокопроизводительных вычислений (HPC) уже сейчас слишком энергоёмки, чтобы их можно было охлаждать воздухом. Поэтому следует использовать платы, специально предназначенные для жидкостного охлаждения, а не пытаться адаптировать те, что были созданы с расчётом на воздушные системы — при использовании СЖО вычислительная инфраструктура может занимать на 60% меньше места.

Изображение: Microsoft

LiquidStack и Wiwynn являются партнёрами. В апреле Wiwynn инвестировала в LiquidStack $10 млн. Также Wiwynn протестировала серверы с погружным жидкостным охлаждением в центре обработки данных Microsoft Azure в Куинси (штат Вашингтон). Microsoft, как и другие гиперскейлеры, уже некоторое время изучает возможности иммерсионных СЖО.

Корпорация Microsoft начала поставки любопытного серверного решения — центра обработки данных Azure Modular Data Center (MDC), все составляющие которого заключены в стандартный 40-футовый контейнер. Такое исполнение позволяет перевозить систему на различных видах транспорта и быстро вводить в эксплуатацию.

ЦОД может быть развёрнут в любом месте, где есть подходящая площадка для установки контейнера и электрическая сеть необходимой мощности. Более того, питание может подаваться от дизельных генераторов. ЦОД и всё его оборудование сконструированы так, чтобы пережить и транспортировку, и эксплуатацию в не самых благоприятных условиях.

Система позволяет получить доступ к вычислительным мощностям облака Azure. Контейнерный ЦОД может функционировать в суровом климате, обеспечивая бесперебойную работу критически важной инфраструктуры. Платформа MDC может использоваться, к примеру, в центрах гуманитарной помощи, передвижных пунктах управления, а также на территориях предприятий добывающей промышленности.

MDC может работать как полностью автономно, так и в связке с «большим» облаком Azure. Причём предусмотрена возможность использования спутниковых средств связи — на случай перебоев в основном интернет-канале. Собственно говоря, именно в рамках совместного со SpaceX проекта Azure Space и были анонсированы эти ЦОД.

Внутри контейнера размещены три серверных блока, каждый из которых содержит две стойки 42U с коммутаторами и контроллерами. На каждый блок приходится 8 серверов и 48 узлов хранения. Все они работают под управлением Azure Stack Hub. Доступ к такому ЦОД предоставляется на условиях аренды, как и в случае более простых и компактных устройств серии Azure Stack Edge.

Любой современный ЦОД — это не только помещение, занимающее определённую площадь, но ещё и серьёзные системы питания и, особенно, охлаждения. Ряд компаний считает, что с точки зрения последнего фактора имеет смысл рассмотреть возможность размещения ЦОД под водой, на дне моря, где температура постоянна и достаточно низка. В их числе Microsoft со своей разработкой Project Natick.

Первый прототип Natick, доказавший работоспособность концепции, успешно проработал 105 дней в водах Калифорнийского залива, однако действительно серьёзная мощность была достигнута лишь во второй фазе, о которой и идёт речь в данной заметке. Второй прототип Natick являет собой 12,2-метровый цилиндрический контейнер стандарта ISO 40, внутри размещено 12 стоек с 864 серверами Microsoft (в составе присутствуют ПЛИС-ускорители) и СХД общим объёмом 27,6 Пбайт. Система охлаждения во втором варианте была разработана французской группой Naval Group на основе теплообменников, использующихся в современных подводных лодках.

На этот раз местом размещения подводного ЦОД был выбран район Оркнейских островов в 193 километрах (120 миль) от берега, глубина погружения составляла примерно 35 метров. Для питания и данных использовался общий кабель, содержащий как силовые линии, способные передать около четверти мегаватта, так и оптические волокна. Проект создавался с прицелом на пятилетний срок работы без обслуживания, с прицелом на 20 лет в будущем. Для обеспечения повышенной надёжности внутреннее пространство контейнера заполнено азотом, который практически инертен и способствует уменьшению износа оборудования.

14 сентября Microsoft сообщила об окончании второй фазы Project Natick, которая продлилась два года. Сам контейнер был извлечён из моря ещё летом, и специалисты и эксперты занялись изучением состояния аппаратного обеспечения, входившего в состав второго прототипа автономного ЦОД. Результат проекта признан очень успешным, возглавляющий Project Natick Бен Катлер (Ben Cutler) заявил, что «дело сделано, и второй вариант Natick можно с полным правом назвать подходящим строительным блоком».

Согласно статистике, около 50% населения планеты проживает недалеко от берега моря, поэтому размещение подводных ЦОД в прибрежных областях вполне оправдано, а Европейский центр морской энергетики (Europetn Marine Energy Centre) вообще говорит о возможности использования для питания таких ЦОД приливных турбин и волновых конвертеров, что сделает их практически автономными, не считая оптоволоконного подключения.

Часть системы охлаждения Natick

Тонкости функционирования Natick ещё предстоит изучить, но предварительные результаты оказались несколько обескураживающими: ЦОД в герметичном контейнере, покоившийся на дне моря, и, естественно, лишённый обслуживания, оказался в восемь раз надёжнее, нежели его копия, расположенная на суше. Причины примерно ясны: стабильные температуры, отсутствие окисляющей атмосферной среды, а также каких-либо серьёзных вибраций. Компания считает, что эти данные могут помочь и в проектировании более надёжных наземных ЦОД.

Microsoft признала, что проект всё ещё далёк от завершения, но считает, что стандартный ЦОД Azure в подводном варианте уже может быть создан. Вице-президент отдела Azure по системам класса mission critical Вильям Чэппел (William Chappell) отметил, что его команда особенно заинтересована в пост-квантовых методах шифрования, критичных для такого рода периферийных центров обработки данных.

Также заявлено, что Natick успешно может служить в качестве периферийного ЦОД или ЦОД с повышенной безопасностью; последнее достаточно очевидно — получить доступ к оборудованию, находящемуся под водой, намного сложнее, нежели в обычном ЦОД. Надёжнее в этом плане может быть только сервер на орбите, но по понятным причинам такое решение намного дороже и сложнее, нежели Natick, оно менее мощное, а также не гарантирует постоянной низкой латентности, которая может быть критичной в edge-сценариях использования.

Microsoft сообщила, что успешно протестировала использование водородных топливных элементов для резервного питания своих серверов в центрах обработки данных. Это первый шаг к внедрению новых технологий, исключающих использование дизельного топлива в системах аварийного питания.

Водород хранился в резервуарах на трейлерах, припаркованных возле лаборатории в Солт-Лейк-Сити, штат Юта. Такой вариант хранения водорода был продемонстрирован в ходе эксперимента, но в дальнейшем планируется использовать стационарные резервуары. Microsoft намерена прекратить использование дизельного топлива к 2030 году в рамках своих инициатив по снижению вредных выбросов.

В эксперименте использовалась нагрузка в виде 10 стоек облачных серверов Microsoft Azure: в течение 48 часов использовалась 250-КВт система на топливных элементах. Такое время работы от топливных элементов выбрано не случайно, поскольку большинство перебоев в подаче электроэнергии длятся менее 48 часов.

Ранее для подобной задачи использовались шесть дизель-генераторов. Следующим шагом Microsoft планирует испытать систему резервного питания на топливных элементах мощностью 3 МВт, чтобы продемонстрировать как масштабируется система для больших дата-центров.

Дизельные генераторы на данный момент являются оптимальным выбором для большинства ЦОД, однако Microsoft стремится к сокращению выбросов углекислого газа и хочет полностью отказаться от дизельного топлива к 2030 году. Цель амбициозная, но достижимая. Пока основным препятствием к ее осуществлению является цена. Водород сам по себе до сих пор остается дорогим топливом, а его транспортировка и хранения обходятся еще дороже.

Следует также учесть, что водород более взрывоопасен, чем дизельное топливо, поэтому его хранение может стать большой проблемой для дата-центров, расположенных в крупных городах. Кроме радикальных мер по переводу аварийного питания дата-центров на водород, Microsoft рассматривает и более реальные альтернативы в виде питания генераторов от природного газа, который дает намного меньше выбросов, по сравнению с дизельным топливом, также рассматривается синтетическое дизельное топливо, которое при сгорании выделяет меньше углерода.

Проектами по созданию более экологичных источников питания занимаются и другие компании: Rolls-Royce и Daimler Truck AG разработают топливные элементы для ЦОД, а Keppel и Mitsubishi намереваются создать водородную электростанцию. Ещё одной альтернативой могут стать ёмкие аккумуляторы — оператор Switch для своего дата-центра в Неваде построит комплекс из солнечной электростанции мощностью 127 МВт и модулей Tesla MegaPack суммарной ёмкостью 240 МВт∙ч

Microsoft одновременно решает ряд инженерных задач с проектом Microsoft Azure Natick: снижает эксплуатационные расходы и обеспечивает меньшие задержки для дата-центров. Что же из себя представляет этот уникальный проект?

Начнем с истории: первый концепт Natick представлял собой стойку с серверами в стальной оболочке, которую опустили в океан, чтобы проверить работоспособность идеи. Попытка была удачной, Microsoft доказала, что можно использовать обычные серверы, развернутые в компактном корпусе на расстоянии 200 км в океане, что примерно давало задержку в 1 мс (2 мс в обе стороны). Видео с экспериментальным дата-центром Natick:

Первая версия Natick была развернута у берегов Калифорнии и проработала 105 дней, что подтвердило жизнеспособность концепта.

Два года спустя Microsoft Research погрузила под воду 14 стоек с серверами у побережья Шотландии. Этот регион был выбран не случайно: именно здесь используется множество возобновляемых источников энергии, что позволило сделать новый Natick еще более экологичным. Видео с демонстрацией Natick второго поколения:

После более чем года работы Natick второго поколения Microsoft поделилась некоторыми данными: с точки зрения эффективности энергопотребления Natick демонстрирует коэффициент PUE в 1,07 — это очень мало для текущего производственного центра обработки данных. Низкий PUE означает снижение эксплуатационных расходов, а также делает Natick более экологичным. Обычный наземный дата-центр использует 4,8 литра воды на кВт/ч, при этом Natick не потребляет воду для работы, однако использует ее по-другому (споры с экологами по поводу нагрева океана и влияния на окружающую среду не закончились какими-то конструктивными выводами, по информации от самой Microsoft, влияние Natick на окружающую среду ничтожно мало). Этот аспект особенно актуален для стран, в которых существует дефицит воды и охлаждение дата-центров превращается в существенную проблему.

Цилиндрический корпус Natick имеет вакуумную герметизацию, что означает, что серверы и ИТ оборудование избавлены от многих вредных факторов, таких как влажность и пыль. Кроме того, учитывая, насколько хорошо вода поглощает тепло и насколько велики океаны, можно утверждать, что на глубине 200 метров для дата-центра будет поддерживаться постоянная температура, без колебаний, свойственных наземным ЦОД (особенно это актуально для жарких регионов, где приходится использовать системы охлаждения с большим запасом). Natick 2 был рассчитан на эксплуатацию в течение пяти лет без технического обслуживания.

Так что же Microsoft может предложить сегодня?

Natick третьего поколения представляет собой множество цилиндрических корпусов, закрепленных на большой стальной раме, в которой проложены коммутационные кабели и кабели питания. Общий размер составляет более 90 м (300 футов), с каждой стороны конструкции есть балластные цистерны для транспортировки и упрощения установки. Natick 3 состоит из 12 цилиндрических корпусов, общая мощность системы достигает 5 МВт, при необходимости могут быть построены и более крупные структуры, так как конструкция модульная и позволяет легко масштабировать мощность при необходимости.

Microsoft не единственная компания, которая ведёт разработки в области подводных дата-центров, существуют еще разработки Nautilus Fata Technologies и более мелкие стартапы, однако они находятся только в самом начале пути и не имеют опыта промышленной эксплуатации дата-центров. Одно можно сказать точно: данное направление будет развиваться и в скором будущем мы увидим еще не одно подобное решение.